Nguồn: Henry A. Kissinger, Eric Schmidt, và Craig Mundie, “War and Peace in the Age of Artificial Intelligence”, Foreign Affairs, 18/11/2024
Biên dịch: Viên Đăng Huy | Hiệu đính: Nguyễn Thế Phương
Từ việc tái điều chỉnh chiến lược quân sự đến việc tái cấu trúc ngoại giao, trí tuệ nhân tạo (AI) sẽ trở thành yếu tố quyết định đối với trật tự thế giới. Không sợ hãi và thiên vị, AI mở ra khả năng mới về tính khách quan trong việc ra quyết định chiến lược. Nhưng tính khách quan đó, được khai thác bởi cả các chiến binh và những người kiến tạo hòa bình, cần phải được sử dụng để bảo tồn tính chủ quan của con người, vốn là thứ quan trọng cho việc sử dụng vũ lực có trách nhiệm. AI trong chiến tranh sẽ giúp soi sáng những biểu hiện tốt đẹp nhất và tồi tệ nhất của loài người. Nó sẽ đóng vai trò là phương tiện để tiến hành chiến tranh và chấm dứt chiến tranh.
Nhân loại từ lâu đã luôn nỗ lực để tổ chức bản thân theo những cách thức ngày càng phức tạp, nhằm không để bất kỳ quốc gia nào giành được quyền thống trị tuyệt đối so với những quốc gia khác. Nỗ lực lâu dài này đã đạt đến trạng thái của một quy luật tự nhiên liên tục và không ngừng nghỉ. Trong một thế giới mà các chủ thể chính vẫn là con người—ngay cả khi được trang bị AI để cung cấp thông tin, tham khảo và tư vấn cho họ—các quốc gia vẫn nên được hưởng một mức độ ổn định nhất định dựa trên các chuẩn mực ứng xử chung, tùy thuộc vào sự điều chỉnh và thích ứng của thời gian.
Nhưng nếu AI nổi lên như một tập hợp các thực thể chính trị, ngoại giao và quân sự độc lập trên thực tế, sự cân bằng quyền lực lâu đời sẽ bị buộc phải thay thế bằng một sự mất cân bằng mới chưa từng thấy. Vũ đài quốc tế của các quốc gia-dân tộc—một trạng thái cân bằng mong manh và luôn thay đổi trong vài thế kỷ qua—đã được duy trì một phần nhờ sự bình đẳng cố hữu của những chủ thể tham gia. Một thế giới với sự bất tương xứng quá lớn—ví dụ: nếu một số quốc gia sẵn sàng áp dụng AI ở cấp độ cao nhất dễ dàng hơn những quốc gia khác—sẽ khó dự đoán hơn nhiều. Trong trường hợp một số cá nhân con người có thể phải đối đầu về mặt quân sự hoặc ngoại giao với một quốc gia được AI hỗ trợ, hoặc chống lại chính AI, con người có thể phải vật lộn để tồn tại, chứ chưa nói đến cạnh tranh. Một trật tự trung gian như vậy có thể chứng kiến sự sụp đổ nội bộ của các xã hội và sự bùng nổ không thể kiểm soát của các xung đột bên ngoài.
Các khả năng khác cũng dần xuất hiện. Ngoài việc tìm kiếm an ninh, con người từ lâu đã chiến đấu trong các cuộc chiến để theo đuổi chiến thắng hoặc để bảo vệ danh dự. Máy móc—cho đến giờ—không có bất kỳ quan niệm nào về chiến thắng hay danh dự. Chúng có thể không bao giờ gây chiến, thay vào đó, ví dụ, chúng chọn chuyển giao lãnh thổ ngay lập tức, được phân chia cẩn thận dựa trên các tính toán phức tạp. Hoặc chúng có thể—coi trọng kết quả mà không coi trọng mạng sống cá nhân—thực hiện các hành động dẫn đến các cuộc chiến tranh tiêu hao đẫm máu của con người. Trong một kịch bản sau đó, loài người chúng ta tái xuất, nhưng bị biến đổi đến mức từ bỏ hoàn toàn sự tàn bạo trong hành vi con người. Trong một kịch bản khác, chúng ta sẽ trở nên phụ thuộc vào công nghệ đến mức nó sẽ đưa chúng ta trở lại quá khứ man rợ.
Thế lưỡng nan an ninh AI
Nhiều quốc gia đang bị ám ảnh bởi cách “chiến thắng trong cuộc đua AI”. Một phần, động lực đó là điều dễ hiểu. Văn hóa, lịch sử, giao tiếp và nhận thức đã cùng nhau tạo ra một tình huống ngoại giao giữa các cường quốc ngày nay, thúc đẩy sự bất an và nghi ngờ từ mọi phía. Các nhà lãnh đạo tin rằng một lợi thế chiến thuật gia tăng có thể mang tính quyết định trong bất kỳ cuộc xung đột nào trong tương lai và AI có thể mang lại chính lợi thế đó.
Nếu mỗi quốc gia muốn tối đa hóa vị thế của mình, thì các điều kiện sẽ được thiết lập cho một cuộc thi tâm lý giữa các lực lượng quân sự đối địch và các cơ quan tình báo mà nhân loại chưa từng đối mặt trước đây. Một tình thế tiến thoái lưỡng nan về an ninh hiện sinh đang chờ đợi. Mong muốn hợp lý đầu tiên của bất kỳ chủ thể con người nào sở hữu AI siêu thông minh—nghĩa là, một AI giả định thông minh hơn con người—có thể là cố gắng đảm bảo rằng không ai khác có được phiên bản công nghệ mạnh mẽ này. Bất kỳ chủ thể nào như vậy cũng có thể mặc định cho rằng đối thủ của mình, bị vây hãm bởi những bất định giống hệt nhau và phải đối mặt với những rủi ro tương tự, sẽ cân nhắc một động thái chính sách tương tự.
Không cần đến chiến tranh, một AI siêu thông minh có thể lật đổ, phá hoại và ngăn chặn một chương trình mang tính cạnh tranh. Ví dụ: AI hứa hẹn sẽ tăng cường sức mạnh cho vi-rút máy tính thông thường với khả năng chưa từng có và che giấu chúng một cách triệt để. Giống như sâu máy tính Stuxnet—vũ khí mạng được phát hiện vào năm 2010 được cho là đã phá hủy 1/5 số máy ly tâm uranium của Iran—một tác nhân AI có thể phá hoại tiến trình phát triển của đối thủ mà không bị lộ tung tích, do đó buộc các nhà khoa học của đối phương phải lần mò trong bóng tối. Với khả năng độc nhất vô nhị trong việc thao túng các điểm yếu trong tâm lý con người, AI cũng có thể chiếm quyền điều khiển phương tiện truyền thông của một quốc gia đối thủ, tạo ra một lượng thông tin sai lệch tổng hợp khổng lồ đến mức đáng báo động để tạo ra sự phản đối hàng loạt chống lại tiến bộ hơn nữa trong năng lực AI của quốc gia đó.
Các quốc gia sẽ khó có thể hiểu rõ vị trí của mình so với các quốc gia khác trong cuộc đua AI. Các mô hình AI lớn nhất hiện đã được huấn luyện trên các mạng an toàn được ngắt kết nối hoàn toàn với phần còn lại của Internet. Một số giám đốc điều hành tin rằng sự phát triển của AI sớm muộn gì cũng sẽ dịch chuyển đến các boongke bất khả xâm phạm, nơi các siêu máy tính sẽ được cung cấp năng lượng bằng lò phản ứng hạt nhân. Các trung tâm dữ liệu thậm chí hiện đang được xây dựng dưới đáy đại dương. Chẳng bao lâu nữa chúng có thể được triển khai trên quỹ đạo quanh Trái đất. Các tập đoàn hoặc quốc gia có thể ngày càng “chìm vào bóng tối”, ngừng xuất bản nghiên cứu về AI không chỉ để tránh tạo điều kiện cho các chủ thể có ý định xấu mà còn để che giấu tốc độ phát triển của chính họ. Để bóp méo bức tranh thực sự về tiến độ của họ, những quốc gia khác thậm chí có thể cố tình xuất bản các nghiên cứu gây hiểu lầm, với sự hỗ trợ của AI trong việc tạo ra những điều bịa đặt thuyết phục.
Có tiền lệ cho những lừa dối khoa học như vậy. Năm 1942, nhà vật lý Liên Xô Georgy Flyorov đã suy luận chính xác rằng Mỹ đang chế tạo bom hạt nhân sau khi ông nhận thấy rằng người Mỹ và người Anh đã đột ngột ngừng xuất bản các bài báo khoa học về phân hạch nguyên tử. Ngày nay, một cuộc thi thố như vậy sẽ trở nên khó lường hơn nữa do sự phức tạp và mơ hồ của việc đo lường tiến độ hướng tới một thứ gì đó trừu tượng như trí thông minh. Mặc dù một số người coi lợi thế là tương xứng với quy mô của các mô hình AI mà họ sở hữu, nhưng một mô hình lớn hơn không nhất thiết phải vượt trội trong mọi ngữ cảnh và có thể không phải lúc nào cũng thắng thế so với các mô hình nhỏ hơn được triển khai trên quy mô lớn. Các máy AI nhỏ hơn và chuyên biệt hơn có thể hoạt động giống như một bầy drone chống lại tàu sân bay—không thể phá hủy nó, nhưng đủ để vô hiệu hóa nó.
Một chủ thể có thể được coi là có lợi thế nếu nó thể hiện thành tích trong một khả năng cụ thể. Tuy nhiên, vấn đề với dòng suy nghĩ này là AI ám chỉ một quá trình học máy không chỉ được nhúng trong một công nghệ duy nhất mà còn trong một dải các công nghệ khác nhau. Do đó, năng lực trong một lĩnh vực công nghệ cụ thể có thể bị chi phối bởi các yếu tố hoàn toàn khác với năng lực trong lĩnh vực công nghệ khác. Theo cách tiếp cận này, bất kỳ “lợi thế” nào được tính toán theo cách thức thông thường hoàn toàn có thể chỉ là ảo tưởng.
Hơn nữa, như được chứng minh bằng sự bùng nổ theo cấp số nhân và không lường trước được liên quan tới khả năng của AI trong những năm gần đây, xu hướng của các tiến bộ về mặt công nghệ không phải là tuyến tính và cũng không thể đoán trước được. Ngay cả khi một chủ thể được cho là “dẫn đầu” trong khoảng thời gian xấp xỉ vài năm hoặc vài tháng, thì một bước đột phá về kỹ thuật hoặc lý thuyết đột ngột trong một lĩnh vực quan trọng vào thời điểm quan trọng có thể đảo ngược vị trí của tất cả người chơi.
Trong một thế giới như vậy, nơi không nhà lãnh đạo nào có thể tin tưởng vào những thông tin tình báo vững chắc nhất, bản năng nguyên thủy nhất của họ, hay thậm chí là chính nền tảng của thực tại, không ai có thể đổ lỗi cho các chính phủ vì đã hành động một cách hoang tưởng và nghi ngờ tối đa. Các nhà lãnh đạo chắc chắn đã đưa ra quyết định dựa trên giả định rằng những nỗ lực của họ đang bị giám sát hoặc chứa đựng những biến dạng do các ảnh hưởng xấu xa gây ra. Mặc định theo các kịch bản xấu nhất, phép tính chiến lược của bất kỳ chủ thể nào ở vùng ngoại vi sẽ là ưu tiên tốc độ và bí mật hơn là sự an toàn. Các nhà lãnh đạo con người có thể bị kìm kẹp bởi nỗi sợ hãi rằng đứng ở vị trí thứ hai là điều bất khả. Dưới áp lực, họ có thể đẩy nhanh việc triển khai AI một cách sớm để răn đe các gián đoạn từ bên ngoài.
Xu hướng chiến tranh mới
Trong hầu hết lịch sử loài người, chiến tranh đã được tiến hành trong một không gian xác định, nơi người ta có thể biết một cách chắc chắn về khả năng và vị trí của các lực lượng thù địch. Sự kết hợp của hai thuộc tính này mang lại cho mỗi bên cảm giác an toàn về mặt tâm lý và sự đồng thuận chung, cho phép kiềm chế sát thương một cách hợp lý. Chỉ khi các nhà lãnh đạo sáng suốt thống nhất những hiểu biết cơ bản của họ về cách thức chiến tranh có thể được tiến hành thì các lực lượng đối lập mới có thể xác định xem có nên tiến hành chiến tranh hay không.
Tốc độ và khả năng cơ động là hai trong những yếu tố dễ đoán nhất làm nền tảng cho khả năng của bất kỳ loại thiết bị quân sự nào. Một ví dụ là sự phát triển của súng thần công. Trong một thiên niên kỷ sau khi được xây dựng, Bức tường Theodosian đã bảo vệ thành phố Constantinople vĩ đại khỏi những kẻ xâm lược từ bên ngoài. Sau đó, vào năm 1452, một kỹ sư pháo binh người Hungary đã đề xuất với Hoàng đế Constantine XI việc chế tạo một khẩu súng thần công khổng lồ, bắn từ phía sau các bức tường phòng thủ, sẽ giúp nghiền nát những kẻ tấn công. Nhưng vị hoàng đế tự mãn, vừa không sở hữu phương tiện vật chất lẫn tầm nhìn xa để nhận ra tầm quan trọng của công nghệ súng thần công, đã bác bỏ đề xuất này.
Thật không may cho ông ta, kỹ sư người Hungary đó hóa ra lại là một lính đánh thuê. Thay đổi chiến thuật (và phe phái), ông ta đã cập nhật thiết kế của mình để cơ động hơn—có thể vận chuyển bởi không dưới 60 con bò và 400 người—và đã tiếp cận đối thủ của Constantine XI, Quốc vương Ottoman Mehmed II, người đang chuẩn bị bao vây pháo đài bất khả xâm phạm. Thu hút sự quan tâm của vị vua trẻ với tuyên bố rằng khẩu súng này có thể “phá vỡ các bức tường của chính Babylon”, người kỹ sư Hungary với tố chất kinh thương đã giúp quân đội Thổ Nhĩ Kỳ chọc thủng các bức tường thành cổ đại chỉ trong 55 ngày.
Những chi tiết của sự kiện thế kỷ 15 này có thể được nhìn thấy lặp đi lặp lại trong suốt chiều dài lịch sử. Vào thế kỷ 19, tốc độ và khả năng cơ động đã thay đổi đầu tiên là vận mệnh của nước Pháp, khi quân đội của Napoléon áp đảo châu Âu, và sau đó là của Phổ, dưới sự chỉ huy của Helmuth von Moltke (Cha) và Albrecht von Roon, những người đã tận dụng hệ thống đường sắt mới được phát triển để cho phép cơ động nhanh hơn và linh hoạt hơn. Tương tự, blitzkrieg—một sự phát triển của các nguyên tắc quân sự tương tự của Đức—đã được sử dụng để chống lại quân Đồng minh trong CTTG II với hiệu quả to lớn và khủng khiếp.
“Chiến tranh chớp nhoáng” đã mang một ý nghĩa mới—và phổ biến—trong thời đại chiến tranh kỹ thuật số. Tốc độ là tức thời. Những kẻ tấn công không cần phải hy sinh khả năng sát thương để duy trì khả năng cơ động, vì địa lý không còn là ràng buộc. Mặc dù sự kết hợp đó phần lớn có lợi cho hành vi tấn công trong các cuộc tấn công kỹ thuật số, nhưng thời đại AI có thể chứng kiến sự gia tăng tốc độ phản ứng và cho phép phòng thủ không gian mạng có thể có tác động tương ứng với tấn công không gian mạng.
Trong chiến tranh động năng, AI sẽ kích động một bước nhảy vọt khác. Ví dụ, drone sẽ cực kỳ nhanh và cơ động đến mức không thể tưởng tượng được. Khi AI được triển khai không chỉ để hướng dẫn một drone duy nhất mà còn để chỉ đạo các bầy đàn drone, các đám mây drone sẽ hình thành và bay đồng bộ như một tập thể gắn kết duy nhất. Các bầy đàn drone trong tương lai sẽ tự giải tán và tái cấu trúc một cách dễ dàng thành các đơn vị với mọi kích cỡ, giống như các lực lượng đặc nhiệm tinh nhuệ được xây dựng từ các phân đội có thể mở rộng, mỗi phân đội đều có khả năng chỉ huy độc lập.
Ngoài ra, AI sẽ cung cấp khả năng phòng thủ nhanh chóng và linh hoạt. Các hạm đội drone là không thực tế nếu không muốn nói là không thể bắn hạ bằng đạn thông thường. Nhưng các loại súng được hỗ trợ bằng AI bắn ra photon và electron (thay vì đạn vật lý) có thể tái tạo khả năng vô hiệu hóa gây sát thương tương tự như bão mặt trời có thể làm cháy bảng mạch của các loại vệ tinh.
Vũ khí được hỗ trợ bởi AI sẽ có độ chính xác chưa từng có. Giới hạn trong kiến thức về vị trí và đặc trưng địa lý liên quan tới đối thủ từ lâu đã hạn chế khả năng và ý định của bất kỳ bên tham chiến nào. Nhưng liên minh giữa khoa học và chiến tranh đã đảm bảo độ chính xác ngày càng tăng của các công cụ và AI dự kiến sẽ tạo ra nhiều đột phá hơn. Do đó, AI sẽ thu hẹp khoảng cách giữa ý định ban đầu và kết quả cuối cùng, bao gồm cả việc sử dụng vũ lực gây chết người. Cho dù là bầy đàn drone trên mặt đất, quân đoàn máy móc được triển khai trên biển hay có thể là các hạm đội giữa các vì sao, máy móc sẽ sở hữu khả năng giết người cực kỳ chính xác với mức độ bất định cực kỳ nhỏ và với tác động vô hạn. Giới hạn của sự hủy diệt tiềm tàng sẽ chỉ phụ thuộc vào ý chí và sự kiềm chế của cả con người và máy móc.
Vì vậy, thời đại chiến tranh AI sẽ được rút gọn chủ yếu chỉ còn quá trình đánh giá không phải khả năng của đối phương mà là các ý định của họ và các ứng dụng chiến lược của chúng. Trong thời đại hạt nhân, chúng ta đã bước vào giai đoạn như vậy—nhưng động lực và tầm quan trọng của nó sẽ trở nên rõ ràng hơn nhiều khi AI chứng tỏ giá trị như một loại vũ khí chiến tranh.
Với sự tác động của một loại công nghệ có giá trị như vậy, con người thậm chí có thể không phải là mục tiêu chính của chiến tranh được hỗ trợ bởi AI. Trên thực tế, AI có thể loại bỏ hoàn toàn con người như một lực lượng ủy nhiệm trong chiến tranh, khiến chiến tranh ít gây chết người hơn nhưng với vai trò quan trọng không kém. Tương tự, bản thân lãnh thổ địa lý dường như khó có thể kích động sự xâm lược của AI—nhưng các trung tâm dữ liệu và cơ sở hạ tầng kỹ thuật số quan trọng khác chắc chắn có thể làm điều đó.
Vậy thì, sự đầu hàng sẽ đạt được không phải khi quân số của đối phương giảm đi và kho vũ khí của họ trống rỗng mà là khi lá chắn silicon của những người sống sót không còn khả năng cứu vãn các tài sản công nghệ của họ—và cuối cùng là chính bản thân của họ. Chiến tranh có thể phát triển thành một trò chơi gây tử vong hoàn toàn về mặt cơ học, yếu tố quyết định là sức mạnh tâm lý của con người (hoặc AI) phải tranh đấu để mạo hiểm hoặc ngăn chặn khoảnh khắc hủy diệt hoàn toàn.
Ngay cả những động cơ chi phối chiến trường mới cũng sẽ trở nên xa lạ ở một mức độ nào đó. Nhà văn người Anh G. K. Chesterton từng nói đùa rằng “người lính thực thụ chiến đấu không phải vì anh ta ghét những gì ở phía trước mà vì anh ta yêu những thứ ở phía sau.” Một cuộc chiến tranh AI khó có thể liên quan đến tình yêu hay sự thù hận, chứ đừng nói đến khái niệm về lòng dũng cảm của người lính. Mặt khác, nó vẫn có thể kết hợp bản ngã, bản sắc và lòng trung thành—mặc dù bản chất của những bản sắc và lòng trung thành đó có thể không nhất quán với hiện tại.
Phép tính trong chiến tranh luôn tương đối đơn giản: bên nào thấy đau đớn không thể chịu đựng được trong trận chiến trước tiên thì có thể sẽ bị chinh phục. Ý thức về những thiếu sót của bản thân trong quá khứ đã tạo ra sự kiềm chế. Không có nhận thức như trên, và không có cảm giác đối với nỗi đau (và thông qua đó là sự khoan dung), chúng ta không thể không tự hỏi điều gì sẽ thúc đẩy sự kiềm chế của một AI vốn được đưa vào tham chiến và điều gì sẽ kết thúc các cuộc xung đột mà nó gây ra. Một AI chơi cờ vua, nếu nó chưa bao giờ được thông báo về các quy tắc quy định kết thúc trò chơi, có thể chơi đến tận con tốt cuối cùng.
Tái cấu trúc địa chính trị
Trong mọi thời đại của nhân loại, gần như tuân theo một quy luật tự nhiên nào đó, như một trong số chúng ta (Kissinger) đã từng nói, đã xuất hiện một đơn vị “với sức mạnh, ý chí và động lực trí tuệ và đạo đức để định hình toàn bộ hệ thống quốc tế theo các giá trị của riêng nó.” Sự sắp xếp quen thuộc nhất của các nền văn minh nhân loại là hệ thống Westphalian theo cách hiểu thông thường. Tuy nhiên, ý tưởng về quốc gia-dân tộc có chủ quyền chỉ mới xuất hiện cách đây vài thế kỷ, từ các hiệp ước được gọi chung là Hòa bình Westphalian vào giữa thế kỷ 17. Nó không phải là đơn vị tổ chức xã hội được định sẵn và nó có thể không phù hợp với thời đại AI. Thật vậy, khi cơn bão thông tin sai lệch hàng loạt và phân biệt đối xử tự động gây ra sự mất niềm tin vào quá trình sắp xếp đó, AI có thể đặt ra một thách thức cố hữu đối với quyền lực của các chính phủ quốc gia. Ngoài ra, AI cũng có thể thiết lập lại vị trí tương đối của các đối thủ cạnh tranh trong hệ thống ngày nay. Nếu sức mạnh của nó được khai thác chủ yếu bởi chính các quốc gia-dân tộc, nhân loại có thể bị buộc phải hướng tới sự trì trệ bá quyền, hoặc hướng tới một trạng thái cân bằng mới của các quốc gia-dân tộc được trao quyền bởi AI. Nhưng công nghệ cũng có thể là chất xúc tác cho một quá trình chuyển đổi thậm chí còn căn bản hơn—một sự chuyển đổi sang một hệ thống hoàn toàn mới, trong đó các chính phủ nhà nước sẽ buộc phải từ bỏ vai trò trung tâm của họ trong cơ sở hạ tầng chính trị toàn cầu.
Một khả năng là các công ty sở hữu và phát triển AI sẽ tích lũy toàn bộ quyền lực xã hội, kinh tế, quân sự và chính trị. Các chính phủ ngày nay buộc phải đối mặt với một vị thế khó khăn với tư cách là những người cổ vũ cho các tập đoàn tư nhân—dựa trên sức mạnh quân sự, vốn ngoại giao và sức mạnh kinh tế của chính mình để quảng bá và hỗ trợ cho các công ty nội địa này—và đồng thời cũng phải ủng hộ những công dân bình thường vốn nghi ngờ lòng tham và những bí mật mang tính độc quyền. Điều đó có thể là một mâu thuẫn không hề bền vững.
Trong khi đó, các tập đoàn có thể hình thành liên minh để củng cố sức mạnh vốn đã rất to lớn của họ. Những liên minh đó có thể được xây dựng dựa trên những lợi thế bổ sung và lợi nhuận của việc hợp nhất hoặc, thay vào đó, dựa trên triết lý chung về phát triển và triển khai các hệ thống AI. Các liên minh doanh nghiệp này có thể đảm nhận các chức năng quốc gia-dân tộc truyền thống, mặc dù thay vì tìm cách xác định và mở rộng các lãnh thổ có ranh giới vật lý, họ sẽ nuôi dưỡng các mạng kỹ thuật số khuếch tán làm lãnh thổ của riêng họ.
Và vẫn còn một sự thay thế khác. Sự khuếch tán mã nguồn mở không được kiểm soát có thể làm phát sinh các băng nhóm hoặc bộ lạc nhỏ hơn với năng lực AI không đạt tiêu chuẩn nhưng có tác động đáng kể, đủ để quản lý, cung cấp và tự vệ trong một phạm vi giới hạn nào đó. Trong số các nhóm người từ chối các thiết chế thẩm quyền truyền thống để ủng hộ các cơ cấu tài chính, truyền thông và quản trị phi tập trung, thì chế độ tiền-vô chính chủ (proto-anarchy) được công nghệ hỗ trợ như vậy có thể giành chiến thắng. Hoặc các nhóm như vậy có thể kết hợp một chiều kích tôn giáo. Rốt cuộc, xét về phạm vi tiếp cận, Cơ đốc giáo, Hồi giáo và Ấn Độ giáo đều lớn hơn và tồn tại lâu hơn bất kỳ quốc gia nào trong lịch sử. Trong thời đại sắp tới, các chi phái tôn giáo, thay vì quốc tịch, có thể được chứng minh là khuôn khổ phù hợp hơn cho bản sắc và lòng trung thành.
Trong tương lai, cho dù bị chi phối bởi các liên minh doanh nghiệp hay khuếch tán thành các nhóm tôn giáo lỏng lẻo, thì “lãnh thổ” mới mà mỗi nhóm sẽ tuyên bố chủ quyền—và chiến đấu trên đó—sẽ không phải là những tấc đất vật lý mà là một vùng không gian kỹ thuật số (digital landscape), tìm kiếm lòng trung thành của người dùng cá nhân. Mối liên kết giữa những người dùng này và bất kỳ chính quyền nào sẽ phá vỡ khái niệm truyền thống về quyền công dân và thỏa thuận giữa các thực thể sẽ không giống như các liên minh thông thường.
Trong lịch sử, các liên minh đã được các nhà lãnh đạo cá nhân tạo ra và phục vụ để tăng cường sức mạnh của một quốc gia trong trường hợp chiến tranh. Ngược lại, viễn cảnh về quyền công dân và liên minh—và có lẽ là các cuộc chinh phạt hoặc thập tự chinh—được cấu trúc xung quanh ý kiến, niềm tin và bản sắc chủ quan của những người bình thường trong thời bình sẽ yêu cầu một quan niệm mới (hoặc rất cũ) về đế chế. Nó cũng sẽ buộc chúng ta phải đánh giá lại các nghĩa vụ theo sau việc cam kết trung thành và chi phí của các lựa chọn thoát ra (khỏi ràng buộc trung thành đó), nếu thực sự chúng có tồn tại trong một tương bị tác động sạu sắc bởi AI.
Hòa bình và quyền lực
Các chính sách đối ngoại của các quốc gia-dân tộc đã được xây dựng và sau đó được điều chỉnh bằng cách cân bằng chủ nghĩa lý tưởng và chủ nghĩa hiện thực. Nhìn lại, sự cân bằng tạm thời do các nhà lãnh đạo của chúng ta tạo ra không được coi là trạng thái cuối cùng mà chỉ là những chiến lược phù du (nếu cần thiết) cho thời đại của họ. Với mỗi thời đại mới, căng thẳng này đã tạo ra một biểu hiện khác nhau về thứ cấu thành trật tự chính trị. Sự phân đôi giữa việc theo đuổi lợi ích và theo đuổi các giá trị—hoặc giữa lợi thế của một quốc gia-dân tộc cụ thể và lợi ích chung toàn cầu—là một phần của quá trình tiến hóa không ngừng này. Trong thực tiễn ngoại giao của mình, các nhà lãnh đạo của các quốc gia nhỏ hơn trong lịch sử đã phản ứng một cách thẳng thắn, ưu tiên những điều cần thiết cho sự tồn tại của chính họ. Ngược lại, những ai chịu trách nhiệm duy trì các đế chế toàn cầu, với phương tiện để thực hiện các mục tiêu bổ sung, đã phải đối mặt với tình thế khó xử hơn.
Kể từ khi bắt đầu nền văn minh, khi các đơn vị tổ chức của con người phát triển, họ đồng thời đạt được các mức độ hợp tác mới. Nhưng ngày nay, có lẽ do quy mô của những thách thức toàn cầu cũng như sự bất bình đẳng về vật chất thể hiện rõ ràng giữa các quốc gia và trong nội bộ các quốc gia, một phản ứng dữ dội chống lại xu hướng này đã xuất hiện. AI có thể chứng minh một cách tương xứng với các yêu cầu của quy mô quản trị con người ngày càng lớn hơn, có khả năng nhìn thấu với độ chi tiết và độ trung thực không chỉ các ưu tiên phát triển của quốc gia mà còn cả sự tương tác diễn ra trên toàn cầu.
Chúng tôi hy vọng rằng AI, được triển khai cho các mục đích chính trị trong và ngoài nước, có thể làm được nhiều thứ hơn là chỉ làm sáng tỏ sự đánh đổi mang tính chất cân bằng. Lý tưởng nhất là nó có thể cung cấp các giải pháp mới, tối ưu trên toàn cầu, hoạt động trên một khung thời gian lâu hơn và với độ chính xác cao hơn khả năng của con người, và do đó có thể thu hẹp các lợi ích mâu thuẫn của con người. Trong thế giới sắp tới, trí thông minh máy móc điều hướng xung đột và đàm phán hòa bình có thể giúp làm rõ, hoặc thậm chí vượt qua, những tình thế tiến thoái lưỡng nan truyền thống.
Tuy nhiên, nếu AI thực sự khắc phục những vấn đề mà chúng ta đáng lẽ phải hy vọng tự giải quyết, thì chúng ta có thể phải đối mặt với một cuộc khủng hoảng niềm tin—vừa tự tin thái quá vừa thiếu tự tin. Với một sự tự tin thái quá, một khi chúng ta hiểu được giới hạn khả năng tự điều chỉnh của chính mình, có thể khó thừa nhận rằng chúng ta đã nhượng quá nhiều quyền lực cho máy móc trong việc xử lý các vấn đề hiện sinh của hành vi con người. Đối với sự thiếu tự tin, việc nhận ra rằng chỉ cần loại bỏ tác nhân của con người khỏi việc xử lý các vấn đề của chúng ta là đủ để giải quyết các vấn đề khó giải quyết nhất của có thể bộc lộ quá rõ ràng những thiếu sót trong thiết kế của con người. Nếu hòa bình luôn chỉ là một sự lựa chọn tự nguyện đơn giản, thì cái giá của sự không hoàn hảo của con người đã phải trả chiến tranh vĩnh viễn. Biết rằng một giải pháp luôn tồn tại nhưng chưa bao giờ được chúng ta nghĩ tới sẽ là điều khiến lòng kiêu hãnh của con người bị tổn thương.
Đối với vấn đề an ninh, không giống như trường hợp thay thế con người trong các nỗ lực khoa học hoặc học thuật khác, chúng ta có thể dễ dàng chấp nhận sự không thiên vị của một bên thứ ba là máy móc vốn vượt trội hơn sự ích kỷ của con người—giống như con người dễ dàng nhận ra nhu cầu về một người hòa giải trong một vụ ly hôn gây tranh cãi. Một số đặc trưng tồi tệ nhất của con người sẽ cho phép chúng ta thể hiện một số đặc trưng tốt nhất của chính mình: rằng bản năng của con người hướng tới lợi ích cá nhân, ngay cả khi phải trả giá bằng lợi ích của người khác, có thể giúp chúng ta chuẩn bị chấp nhận sự siêu việt của AI.
HENRY A. KISSINGER từng là Ngoại trưởng Mỹ từ năm 1973 đến năm 1977 và Cố vấn An ninh Quốc gia Mỹ từ năm 1969 đến năm 1975. ERIC SCHMIDT là Chủ tịch Dự án Nghiên cứu Cạnh tranh Đặc biệt và là cựu Giám đốc điều hành kiêm Chủ tịch của Google. CRAIG MUNDIE là Người đồng sáng lập Hệ thống máy tính Alliant và là cựu Cố vấn cấp cao cho Giám đốc điều hành tại Microsoft.
Bài tiểu luận này được chuyển thể từ cuốn sách của họ, Genesis: Trí tuệ nhân tạo, Hy vọng và Tinh thần con người (Little, Brown and Company, 2024).